Ngày 24 tháng 7 năm 1999, Columba Bush bị cầm giữ tại Hải quan Hoa Kỳ ở Phi trường Quốc tế Hartsfield, Atlanta khi trở về từ Paris, Pháp. Trong bản khai hải quan Bush man khai rằng bà chỉ mua một lượng hàng hoá trị giá 500 USD. Khi nhân viên hải quan phát hiện hoá đơn mua hàng trong ví của Bush, bà từ chối cơ hội thay đổi lời khai. Sau khi nhân viên hải quan lục soát hành lý và tìm thấy số lượng hàng hoá ấy, Bush thú nhận rằng bà đã khai man vì không muốn chồng biết số tiền bà đã tiêu xài.

Theo luật liên bang, bà phải nộp phạt số tiền ngang bằng giá trị lượng hàng đã mua và phải chịu tịch thu lượng hàng ấy; nhưng Bush chỉ nộp phạt 4.100 USD và trở về Tallahassee ngay chiều ấy với số hàng đã mua. Hôm sau, Bush và chồng đã đưa ra lời xin lỗi thừa nhận vụ việc trên.